学习有意义的数据表示,可以解决诸如批处理效应校正和反事实推断之类的挑战,这在包括计算生物学在内的许多领域中都是一个核心问题。采用有条件的VAE框架,我们表明表示和条件变量之间的边际独立性在这两个挑战中都起着关键作用。我们提出了后代方法的对比混合物(COMP)方法,该方法使用了根据变异后代的混合物定义的新型未对准惩罚,以在潜在空间中实现这种独立性。我们表明,与以前的方法相比,COMP具有有吸引力的理论特性,并且在其他假设下,我们证明了COMP的反事实可识别性。我们在一系列具有挑战性的任务上展示了最先进的表现,包括将人类肿瘤样品与癌细胞线对准,预测转录组级的扰动反应以及单细胞RNA测序数据的批次校正。我们还发现与公平代表学习的相似之处,并证明Comp在该领域的共同任务上具有竞争力。
translated by 谷歌翻译
Recent advances in upper limb prostheses have led to significant improvements in the number of movements provided by the robotic limb. However, the method for controlling multiple degrees of freedom via user-generated signals remains challenging. To address this issue, various machine learning controllers have been developed to better predict movement intent. As these controllers become more intelligent and take on more autonomy in the system, the traditional approach of representing the human-machine interface as a human controlling a tool becomes limiting. One possible approach to improve the understanding of these interfaces is to model them as collaborative, multi-agent systems through the lens of joint action. The field of joint action has been commonly applied to two human partners who are trying to work jointly together to achieve a task, such as singing or moving a table together, by effecting coordinated change in their shared environment. In this work, we compare different prosthesis controllers (proportional electromyography with sequential switching, pattern recognition, and adaptive switching) in terms of how they present the hallmarks of joint action. The results of the comparison lead to a new perspective for understanding how existing myoelectric systems relate to each other, along with recommendations for how to improve these systems by increasing the collaborative communication between each partner.
translated by 谷歌翻译
在这项工作中,介绍了一个内核注意模块,用于通过神经网络进行基于脑电图的情绪分类的任务。所提出的模块通过执行内核技巧来利用自我发挥的机制,要求比标准注意模块更少的可训练参数和计算。该设计还为定量检查深度精炼中分配的注意力的量提供了标量,因此有助于更好地解释训练有素的模型。使用EEGNET作为骨干模型,与其他SOTA注意模块相比,在种子数据集上进行了广泛的实验,以评估模块内部主体内分类任务的性能。仅需要一个额外的参数,插入的模块被证明可以将基本模型的平均预测精度提高到15个受试者的1 \%以上。该方法的一个关键组成部分是解决方案的解释性,该解决方案使用几种不同的技术来解决,并作为依赖性分析的一部分包含在整个过程中。
translated by 谷歌翻译
在这项工作中,使用有限或相对较少数量的脑电图(EEG)信号提出了一个有效的注意力模块,用于情绪分类。该模块被称为单调性限制的注意模块(MCAM),因为它在将特征的革兰氏矩阵转换为注意矩阵以获得更好的特征细化时,可以将先验纳入单调性上。我们的实验表明,MCAM的有效性可与最新的注意模块相媲美,这在提高骨干网络的预测性能时,同时需要更少的参数。还对受过训练的模型的有关不同攻击的预测进行了几项伴随的敏感性分析。这些攻击包括各种频域过滤水平和与多个标签相关的样品之间逐渐变形。我们的结果可以帮助更好地理解预测中不同模块的行为,并可以在数据有限且存在噪音的应用程序中提供指导。
translated by 谷歌翻译
BERT4REC是基于变压器体系结构的顺序推荐的有效模型。在原始出版物中,Bert4Rec声称比其他可用的顺序推荐方法优越(例如Sasrec),现在经常将其用作顺序建议的最先进的基线。但是,并非所有随后的出版物都证实了这一结果,并提出了其他模型,这些模型被证明在有效性方面表现优于Bert4Rec。在本文中,我们会系统地回顾所有将Bert4Rec与另一个受欢迎的基于变压器的模型(即Sasrec)进行比较的出版物,并表明BERT4REC结果在这些出版物中不一致。为了了解这种不一致的原因,我们分析了BERT4REC的可用实现,并表明我们在使用默认配置参数时未能重现原始Bert4Rec出版物的结果。但是,与默认配置相比,如果训练更长的时间(最高30倍),我们可以用原始代码复制报告的结果。我们还根据拥抱面孔变压器库提出了自己的BERT4REC实施,我们证明了在3个OUT 4数据集中重复了最初报告的结果,同时需要减少95%的培训时间来收敛。总体而言,从我们的系统审查和详细的实验中,我们得出结论,Bert4Rec确实确实表现出了序列建议的最新有效性,但只有在经过足够的时间进行培训时。此外,我们表明,我们的实现可以通过调整拥抱面孔库中可用的其他变压器体系结构(例如,使用Deberta提供的散布注意力或更大的隐藏层大小参见Albert)。
translated by 谷歌翻译
通常通过过去的选择来告知机器学习中的评估,例如要使用哪些数据集或指标。该标准化可以使用排行榜对平等基础进行比较,但是随着出现更好的替代方案,评估选择变得不佳。这个问题在自然语言生成中尤其相关,该语言需要不断改善的数据集,指标和人类评估以提出确定性的主张。为了使遵循最佳模型评估实践更加容易,我们介绍了GEMV2。新版本的一代,评估和指标基准为数据集,模型和指标开发人员提供了模块化基础架构,以使彼此受益。GEMV2支持40种记录的数据集中51种语言。所有数据集的模型都可以在线评估,我们的交互式数据卡创建和渲染工具使得在Living Benchmark中添加新数据集变得更加容易。
translated by 谷歌翻译
软执行器为轻柔的抓握和灵活的操纵等任务提供了一种安全,适应性的方法。但是,由于可变形材料的复杂物理学,创建准确的模型来控制此类系统是具有挑战性的。准确的有限元方法(FEM)模型具有用于闭环使用的过度计算复杂性。使用可区分的模拟器是一种有吸引力的替代方案,但是它们适用于软执行器,可变形材料仍然没有被忽略。本文提出了一个结合两者优势的框架。我们学习了一个由材料属性神经网络和其余操纵任务的分析动力学模型组成的可区分模型。该物理信息模型是使用FEM生成的数据训练的,可用于闭环控制和推理。我们在介电弹性体执行器(DEA)硬币提取任务上评估我们的框架。我们模拟使用DEA使用摩擦接触,使用FEM沿着表面拉动硬币的任务,并评估物理信息模型以进行模拟,控制和推理。与FEM相比,我们的模型达到了<5%的仿真误差,我们将其用作MPC控制器的基础,MPC控制器比无模型的参与者 - 批评者,PD和启发式策略所需的迭代率更少。
translated by 谷歌翻译
深度学习(DL)模型为各种医学成像基准挑战提供了最先进的性能,包括脑肿瘤细分(BRATS)挑战。然而,局灶性病理多隔室分割(例如,肿瘤和病变子区)的任务特别具有挑战性,并且潜在的错误阻碍DL模型转化为临床工作流程。量化不确定形式的DL模型预测的可靠性,可以实现最不确定的地区的临床审查,从而建立信任并铺平临床翻译。最近,已经引入了许多不确定性估计方法,用于DL医学图像分割任务。开发指标评估和比较不确定性措施的表现将有助于最终用户制定更明智的决策。在本研究中,我们探索并评估在Brats 2019-2020任务期间开发的公制,以对不确定量化量化(Qu-Brats),并旨在评估和排列脑肿瘤多隔室分割的不确定性估计。该公制(1)奖励不确定性估计,对正确断言产生高置信度,以及在不正确的断言处分配低置信水平的估计数,(2)惩罚导致更高百分比的无关正确断言百分比的不确定性措施。我们进一步基准测试由14个独立参与的Qu-Brats 2020的分割不确定性,所有这些都参与了主要的Brats细分任务。总体而言,我们的研究结果证实了不确定性估计提供了分割算法的重要性和互补价值,因此突出了医学图像分析中不确定性量化的需求。我们的评估代码在HTTPS://github.com/ragmeh11/qu-brats公开提供。
translated by 谷歌翻译
许多历史地图表将公开可用于需要长期历史地理数据的研究。这些地图的制图设计包括地图符号和文本标签的组合。从地图图像自动读取文本标签可以大大加快地图解释,并有助于生成描述地图内容的丰富元数据。已经提出了许多文本检测算法以自动定位地图图像中的文本区域,但大多数算法都在Off-Offain数据集(例如,景区图像)上培训。培训数据确定机器学习模型的质量,并在地图图像中手动注释文本区域是劳动力广泛且耗时的。另一方面,现有的地理数据源(例如Open-StreetMap(OSM))包含机器可读地图图层,允许我们分开文本图层并轻松获取文本标签注释。但是,OSM地图瓷砖和历史地图之间的制图样式显着不同。本文提出了一种自动生成无限量的注释历史地图图像的方法,用于训练文本检测模型。我们使用风格转移模型将当代地图图像转换为历史风格,并将文本标签放在上面。我们表明,最先进的文本检测模型(例如,PSENET)可以从合成历史地图中受益,并对历史地图文本检测进行显着改进。
translated by 谷歌翻译
成千上万的扫描历史地形图包含覆盖长时间的有价值的信息,例如如何随着时间的推移改变区域的水文。有效地解锁这些地图中的信息需要培训一种地理空间对象识别系统,该系统需要大量的注释数据。根据其坐标与地形图的重叠地理引用的外部矢量数据可以自动注释地图中的所需对象的位置。但是,直接重叠两个数据集会导致错位和错误的注释,因为出版年份和地形图的坐标投影系统与外部向量数据不同。我们提出了一种标签校正算法,它利用了地图的颜色信息和外部矢量数据的先前形状信息,以减少错位和错误的注释。实验表明,来自所提出的算法的注释精度比来自最先进的算法的注释高10%。因此,使用所提出的算法的注释的识别结果达到了比使用最先进的算法的注释更高的正确性。
translated by 谷歌翻译